Ông sinh ra ở Ruppersthal (Áo), là con trai của một hiệu trưởng trường học tên là Martin Pleyl.[2] Năm 1772, ông bắt đầu học sáng tác với Joseph Haydn. Sau đó Pleyel chuyển đến Strasbourg, Pháp vào năm 1783 để làm việc cùng với người chỉ huy dàn hợp xướng, Franz Xaver Richter, tại Nhà thờ Strasbourg.[3] Sau khi Richter qua đời năm 1789, Pleyel đảm nhận vai trò chỉ huy hợp xướng (maître de chapelle) của nhà thờ này.[4] Năm 1788, Pleyel kết hôn với Françoise-Gabrielle Lefebvre và có bốn người con, người con trai cả của họ là Camille.

Pleyel chuyển đến Paris năm 1795. Năm 1797, ông thành lập doanh nghiệp với tư cách là nhà xuất bản âm nhạc ("Maison Pleyel").[5] Hoạt động kinh doanh xuất bản này kéo dài trong 39 năm và xuất bản khoảng 4.000 tác phẩm,[6] bao gồm ấn bản hoàn chỉnh tứ tấu đàn dây của Haydn (1801) cũng như các tác phẩm của Adolphe Adam, Luigi Boccherini, Ludwig van Beethoven, Muzio Clementi, Johann Baptist Cramer, Johann Ladislaus Dussek, Johann Nepomuk Hummel, Wolfgang Amadeus Mozart và Georges Onslow. Pleyel đã sáng tác ít nhất 42 bản giao hưởng, 70 bản tứ tấu đàn dây và một số vở opera cũng như các tác phẩm độc tấu piano, nhạc thính phòng và nhạc cho nghi thức hội Tam điểm.[7]

Pleyel qua đời năm 1831 và được chôn cất tại Nghĩa trang Père Lachaise ở Paris.